Ông sinh ngày 4 tháng 9 năm 1934 tại Smolensk, là con của người thợ cơ khí Anatoly Vasilievich Khil và kế toán viên Yelena Pavlovna Kalugina.[1] Khi gia đình tan vỡ, ông theo ở với mẹ. Ông và mẹ ly tán nhau trong thời Thế chiến thứ hai. Người ta đưa Khil vào trại chăm sóc trẻ em ở Benkovo, tỉnh Penza, một nơi thiếu thốn nhu yếu phẩm. Dẫu vậy, ông thường xuyên biểu diễn cho các chiến sĩ bị thương tại một bệnh viện gần đó xem.[1] Năm 1943, ông đoàn tụ với mẹ khi phát xít Đức bại trận ở Smolensk. Năm 1949, họ chuyển đến sống ở Leningrad và tại đây, ông ghi danh và tốt nghiệp lớp in ấn.[1] Năm 1955, Khil vào học Nhạc viện Leningrad và tốt nghiệp vào năm 1960.[1] Lúc còn ở trường, ông đã tham gia nhiều vai chính trong các vở opera, chẳng hạn vai Figaro trong vở Đám cưới của Figaro.[1]